McCarthy đã kết hôn ba lần. Người vợ thứ hai của ông là Vera Watson, một lập trình viên và nhà leo núi đã chết vào năm 1978 khi cố gắng mở rộng quy mô Annapurna I như một phần của cuộc thám hiểm toàn nữ do Arlene Blum tổ chức. Sau đó, ông kết hôn với Carolyn Talcott, một nhà khoa học máy tính tại Stanford và sau đó là SRI International.[25][26]

McCarthy coi mình là người vô thần.[27][28] Lớn lên như một người Cộng sản, ông trở thành một đảng Cộng hòa bảo thủ sau chuyến thăm hai ngày tới Tiệp Khắc năm 1968 sau cuộc xâm lược của Liên Xô.[29] McCarthy qua đời tại nhà riêng ở Stanford vào ngày 24 tháng 10 năm 2011 [30]